package com.shujia.flink.sink

import org.apache.flink.api.common.serialization.SimpleStringEncoder
import org.apache.flink.connector.file.sink.FileSink
import org.apache.flink.core.fs.Path
import org.apache.flink.streaming.api.functions.sink.filesystem.rollingpolicies.DefaultRollingPolicy
import org.apache.flink.streaming.api.scala._

import java.time.Duration

object Demo01FileSink {
  def main(args: Array[String]): Unit = {

    val env: StreamExecutionEnvironment = StreamExecutionEnvironment.getExecutionEnvironment


    val linesDS: DataStream[String] = env.socketTextStream("master", 8888)

    /**
     * 將数据保存到文件
     *
     */
   // linesDS.writeAsText("data/lines")  新版本不在使用


    /**
     * 新版本写入文件，需要先导入依赖
     */


    val sink: FileSink[String] = FileSink
      //设置数据保存的路径以及数据输出的格式
      .forRowFormat(new Path("data/flink_sink"), new SimpleStringEncoder[String]("UTF-8"))
      //设置滚动生成新的文件的策略
      .withRollingPolicy(
        DefaultRollingPolicy.builder()
          //至少包含10秒的数据
          .withRolloverInterval(Duration.ofSeconds(10))
          //如果5s没有数据会生成新的文件
          .withInactivityInterval(Duration.ofSeconds(5))
          // 当文件达到阀值时会生成新的文件
          .withMaxPartSize(1024)
          .build()
      ).build()

    //使用file sink
    linesDS.sinkTo(sink)
    env.execute()

  }

}
